When Does Selection Replace Extraction? A Pre-Registered Test of Agent Memory with a Typed Decision Model
何时用选择取代提取？一项基于类型决策模型的智能体记忆预注册测试
🧭 Agent 记忆选择与重排序
Independent Researcher
预注册实验表明：在紧凑预算下，用类型决策模型单次选择原始对话轮次，效果非劣于 LLM 提取记忆且成本极低；重排序增益随预算增大而减弱
📌 工作参考价值（4 点）
- 对话式推荐 / 客服 Agent 的记忆模块可优先采用「原始对话轮次选择 + 轻量判别模型（typed decision model）」，不必先做 LLM 事实提取，写入成本可降低几个数量级，在预算紧张时效果非劣，适合高吞吐场景。
- 重排序的投入应视最终保留的上下文预算而定：如果 context window 只能容纳少量候选（如 3/30），重排序收益显著（+17.4 / +9.1）；如果预算充裕，收益递减（+1.5 / +1.1），可省去该环节降本增效。
- 在匹配上下文长度下，轻量 typed decision model 可作为 LLM reranker 的低延迟替代（约 1/3 延迟），用于召回后的候选筛选，尤其适合对时延敏感的在线推荐服务。
- 实验采用预注册 + 非劣性检验，这种评估范式适合迁移到业务算法替换场景：证明新策略「不差」而非「更优」，可加速低成本方案的灰度上线。